Diez cuestiones que debe incluir en su política de IA
Planifique todas las posibilidades, incluidas las peores
Las cosas pasan. Por muy buena y completa que sea una política de IA, habrá infracciones y habrá problemas. Un chatbot de la empresa dirá algo embarazoso o hará una promesa que la empresa no podrá cumplir porque no se activaron las medidas de seguridad adecuadas.
“Se oyen ejemplos interesantes y divertidos de casos en los que la IA ha fallado”, afirma Priest. “Pero se trata de una parte muy pequeña de la conversación, porque hay formas razonables de gestionar esos riesgos. Y si se manifiesta algún volumen de esos riesgos, se activan contramedidas en la capa arquitectónica, en la capa de políticas y en la capa de formación”.
Y, al igual que una empresa necesita contar con medidas técnicas para cuando la IA se desvía de su curso, una política de IA también debe incluir la respuesta a incidentes en caso de que el problema sea mayor, y la respuesta de la dirección para los casos en que los empleados, los clientes o los socios comerciales violen deliberada o accidentalmente la política.
Por ejemplo, los empleados de un departamento concreto pueden olvidar habitualmente revisar los documentos antes de enviarlos a los clientes, o una unidad de negocio puede crear un sistema de IA paralelo que ignore los requisitos de privacidad o seguridad de los datos.
“¿A quién se llama?”, pregunta Desai, de Shellman.
Es necesario contar con un proceso y formación para garantizar que se dispone de personal para hacer frente a las infracciones y que este tiene la autoridad necesaria para corregir la situación. Y si hay un problema con todo el proceso de IA, debe haber una forma de apagar el sistema sin causar daños a la empresa.
Planificar el cambio
La tecnología de IA avanza rápidamente. Eso significa que gran parte de lo que se incluye en la política de IA de una empresa debe revisarse y actualizarse periódicamente.
“Si diseñas una política que no tiene fecha de finalización, te estás perjudicando a ti mismo”, afirma Rayid Ghani, profesor de la Universidad Carnegie Mellon. Eso podría significar que ciertas disposiciones se revisen cada año, o cada trimestre, para asegurarse de que siguen siendo pertinentes.
“Cuando diseñas la política, debes señalar los aspectos que pueden cambiar y requieren actualizaciones”, afirma. Los cambios pueden ser el resultado del progreso tecnológico, de nuevas necesidades empresariales o de nuevas regulaciones.
Al fin y al cabo, una política de IA debe impulsar la innovación y el desarrollo, no obstaculizarlos, afirma Sinclair Schuller, director de EY. “Quienquiera que esté al frente, ya sea el director ejecutivo o el director de seguridad, debe decir: ‘Vamos a implantar una política de IA para que podáis adoptar la IA, no para impedir que la adoptéis’”, afirma.
